1. 模型选择与评估

  • 误差与拟合
  • 评估方法
  • 性能度量

2. 线性模型

  • 线性回归
    • 一元
    • 多元
    • 广义
    • 对数几率回归
  • 线性判别分析LDA

3. SVM支持向量机

  • SVM基本型
  • 拉格朗日对偶问题
  • SMO求解方法
  • 核技巧

4. BP神经网络

  • 神经元模型
  • 神经网络
  • BP反向误差传播算法

5. 贝叶斯分类器

  • 贝叶斯决策论
  • 朴素贝叶斯分类器

6. 聚类

  • 相似度度量
  • 经典聚类方法
    • 原型聚类:k-means
    • 密度聚类:DBSCAN
    • 层次聚类:AGNES

7. 集成学习

  • Boosting
    • AdaBoost
  • Bagging
    • Random Forest